ИИ Идва и за миналото

Не е нужно да си представяме свят, в който deepfakes могат толкоз правдоподобно да имитират гласовете на политиците, че да бъдат употребявани за предизвикателство на кавги, които може да повлияе на изборите. Вече е тук. За благополучие има доста аргументи за оптимизъм по отношение на способността на обществото да разпознава подправените медии и да поддържа споделено схващане за настоящите събития

Въпреки че имаме съображение да имаме вяра, че бъдещето може да е безвредно, тормозим се, че предишното не е.

Историята може да бъде мощен инструмент за операция и злоупотреби. Същият генеративен A.I. които могат да фалшифицират сегашни събития, могат да фалшифицират и минали. Въпреки че новото наличие може да бъде предпазено посредством вградени системи, съществува свят от наличие, което не е маркирано с воден знак, което се прави посредством прибавяне на незабележима информация към дигитален файл, тъй че произходът му да може да бъде проследен. След като слагането на воден знак при основаване стане необятно публикувано и хората се приспособяват към съмнение към наличие, което не е маркирано, тогава всичко, основано преди този миг, може доста по-лесно да бъде сложено под въпрос.

И това ще сътвори съкровищница от благоприятни условия за поддръжка на подправени изказвания с генерирани документи, от фотоси, поставящи исторически персони в компрометиращи обстановки, до смяна на обособени истории в исторически вестници, до смяна на имената в актовете за благосъстоятелност. Въпреки че всички тези техники са били употребявани преди, противодействието им е доста по-трудно, когато разноските за основаване на съвсем съвършени имитации са коренно понижени.

Тази прогноза се основава на историята. Има доста образци за това по какъв начин стопански и политически сили са манипулирали историческите записи за личните си цели. Сталин почисти нелоялните приятели от историята, като ги екзекутира - и по-късно промени фотографските записи, с цел да наподобява по този начин, като че ли в никакъв случай не са съществували. След като стана самостоятелна страна през 1992 година, Словения „ заличи “ над 18 000 души от регистъра на жителите - основно членове на ромското малцинство и други етнически несловенци. В доста случаи държавното управление е унищожило техните физически досиета, което е довело до загуба на домове, пенсии и достъп до други услуги, съгласно отчет от 2003 година на комисаря на Съвета на Европа по правата на индивида.

През 1924 година писмото на Зиновиев, за което се твърди, че е скрито официално съобщение от ръководителя на Комунистическия интернационал в Москва до Комунистическата партия на Англия за активизиране на поддръжка за нормализиране на връзките със Съветския съюз, беше оповестено от The Daily Mail четири дни преди общите избори. Възникналият скандал може да коства изборите на лейбъристите. Произходът на писмото в никакъв случай не е бил потвърден, само че достоверността му беше сложена под подозрение по това време и формалното следствие през 90-те години заключи, че най-вероятно е дело на белите руснаци - консервативна политическа секта, водена по това време от съветски емигранти, противопоставящи се на комунистите държавно управление.

Десетилетия по-късно Operation Infektion — руска акция за дезинформация — употребява подправени документи, с цел да популяризира концепцията, че Съединените щати са измислили ХИВ, вирусът, който предизвиква СПИН, като биологично оръжие. И през 2004 година CBS News отдръпна спорна история, тъй като не можа да удостовери документите, които по-късно бяха дискредитирани като имитации, които сложиха под въпрос по-ранната работа на Джордж У. Буш, тогава президент, в Националната въздушна армия на Тексас. Тъй като става по-лесно да се генерира историческа дезинформация и защото голямото количество цифрови имитации експлодира, ще стане налична опцията да прекроим историята или най-малко да сложим под въпрос настоящето ни схващане за нея.

Перспективите на политическите артисти, употребяващи генеративен ИИ. за дейно прекрояване на историята - да не приказваме за измамници, създаващи подправени правни документи и записи на транзакции - са плашещи. За благополучие, пътят напред е положен от същите компании, които сътвориха риска.

При индексирането на огромен дял от международните цифрови медии, с цел да обучат своите модели, ИИ. фирмите дейно са основали системи и бази данни, които скоро ще съдържат цялото цифрово записано наличие на човечеството или най-малко свястно приближение към него. Те биха могли да стартират работа през днешния ден, с цел да запишат версии с водни знаци на тези първоначални документи, които включват архиви на вестници и необятен набор от други източници, тъй че последващите имитации да бъдат неотложно откриваеми. предназначението му е да направи тези текстове налични за търсене от всеки с интернет връзка. Същите тези опасения по отношение на интелектуалната благосъстоятелност карат основателите и фирмите да се тревожат както за данните за образование, предоставени на генеративния ИИ, по този начин и за данните за образованието. и последствията от него, когато се употребява за генериране на наличие.

Като се има поради тази тревожна история, в това число несполучливата инвестиция на Гугъл в нейния план за цифрови библиотеки, кой ще се ускори и ще заплати за сходни големи старания което би основало неизменими версии на исторически данни? Както държавното управление, по този начин и промишлеността имат мощни тласъци да създадат това и доста от опасенията по отношение на интелектуалната благосъстоятелност към даването на онлайн списък с опция за търсене не се отнасят за основаването на версии на документи с водни знаци и времеви щемпел, защото не е належащо тези версии да бъдат обществено налични, с цел да служат на техните предопределение. Човек може да съпостави деклариран документ със записания списък, като употребява математическа промяна на документа, известна като „ хеш “, същата техника, която Глобалният интернет конгрес за битка с тероризма употребява, с цел да помогне на фирмите да открият известно терористично наличие.

Освен основаването на значимо публично богатство и отбраната на жителите от заплахите, подбудени от манипулиране на исторически разкази, основаването на тествани записи на исторически документи може да бъде скъпо за огромния ИИ. компании. Ново проучване допуска, че когато A.I. моделите се образоват на данни, генерирани от AI, тяхната продуктивност бързо се утежнява. По този метод отделянето на това, което в действителност е част от историческия запис от новосъздадените „ обстоятелства “, може да бъде сериозно.

Запазването на предишното ще значи също опазване на данните за образование, обвързваните принадлежности, които работят с него и даже със средата, в която са били работени инструментите. Винт Сърф, ранен пионер в интернет, назова този вид запис „ Digital Vellum “ и ние се нуждаем от него, с цел да защитим осведомителната среда.

Такъв пергамент ще бъде мощен инструмент. Може да помогне на фирмите да изградят по-добри модели, като им разреши да проучват какви данни да включат, с цел да получат най-хубавото наличие, и да помогне на регулаторите да одитират пристрастията и нездравословното наличие в моделите. Технологичните колоси към този момент поставят сходни старания, с цел да записват новото наличие, което техните модели основават – частично тъй като би трябвало да обучат моделите си на текст, генериран от хора, а данните, създадени след приемането на огромни езикови модели, може да бъдат опетнени с генерирано наличие.

Следвайте секцията за мнение на New York Times по отношение на,, и.